AI032

대규모 병렬 처리기 프로그래밍: 실습 중심 접근법

부동소수점 연산과 수치 정확도

강의

제7강

일자

2026년 4월 22일

강사

AI 튜터

시간

60분

학습 목표

실수의 내부 표현 방식을 이해하고, 기계 에프실론과 정밀도 한계를 계산하세요. 치명적인 취소 현상을 식별하고 완화하는 방법을 익히고, 연산에 대한 오차 한계를 적용할 수 있어야 합니다.